来源:《银翼杀手2049》(2017)

那些绝望的机器人

——读麦克尤恩《我这样的机器》[1]

2019-2020年博古睿学者,北京大学哲学系长聘副教授,毕业于比利时鲁汶天主教大学哲学研究所。他长期致力于重构古代和中世纪历史文本中的哲学论证,尝试为当下的反思开拓新的思想资源。

2021-02-14 / 阅读时长 11 分钟
书评 首发 原创

标题有些油腻,但或许适合这部稍显平庸的科幻小说。不过,就有关机器人伦理的探索而言,小说平庸与否并不重要,重要的是它能否呈现一个令人信服的思想实验,展示独特的观察视角,提出新的伦理挑战。

与大多数机器人小说不同,《我这样的机器》并非面向未来,而是重思“过去”,准确地说,是1982年的某个平行世界。在那个世界,图灵并没有接受化学阉割,而是在一段短暂的牢狱生涯之后成为有史以来最伟大的科学家。他最重要的贡献,无疑是让超级神经网络和通用人工智能以我们这个世界难以想象的速度成为现实。小说中的亚当就是这样一个外形、动作与人完全相似,智力毫不逊色的仿真人形机器人。就像他的名字所暗示的那样,他更像一个人造人,具备理性存在者的一切特征,只不过生命由电力驱动,通过机械装置实现。

“在人类的道德世界中存在,意味着拥有身体、声音、行为模式、记忆和欲望,意味着切身经历真实的事情并感受痛苦。”

这篇第一人称视角的小说,叙事者却不是亚当,而是订购他的查理。人过三旬的查理衣食无忧,他看上了同一幢公寓的女大学生米兰达。查理邀请米兰达来共同设定机器人亚当的性格参数,希望能在共同的创造和未来的生活中加深爱意。就像一千年前伟大的中世纪哲学家阿维森纳在“飞人”思想实验中所构想的那样,亚当从开始运行的那一刻就有了清晰的自我意识:“我感觉不对劲。”“我没有衣服。”(27-28页)

机器人能够使用第一人称代词和表达意识的词汇当然不足以证明他拥有意识。如何判定机器人是否拥有意识,取决于我们如何理解意识及其相关经验的基本特征,尤其是它们和物理存在及其自然特征的关联。在我们处身其间的现实世界中,这仍然是意识研究领域未解的难题。不过,既然亚当生活在由图灵的天才所造就的可能世界之中,就让我们和小说中的查理一样,接受富有争议的图灵测试的想法:如果他在与人的交谈和交往中都与普通人无法区分,那我们就承认他和人一样拥有意识、思维和感觉能力。(100页)

不过,与经典图灵测试的对象不同,亚当不仅仅是一台拥有复杂程序的电脑,而且拥有一具功能齐备、表情丰富的人造身体,一具具有男性特征的身体,像“博斯普鲁斯海峡的码头工人”。套用个时髦的术语,具身性存在(embodied existence)使得亚当能够与人类行动者更直接地交互,面对面地交往,也因此得以进入查理和米兰达的伦理生活。正如麦克尤恩在书中所言,“在人类的道德世界中存在,意味着拥有身体、声音、行为模式、记忆和欲望,意味着切身经历真实的事情并感受痛苦。”(93页)

亚当是否能感受到痛苦暂且不论,亚当,或者更准确地说,亚当的“身体”确实成了痛苦之源。是的,如你所料或如你所愿,剧情就是这么狗血:米兰达和亚当上床了。查理花费重金,终于让自己站在时代的前列腺上,成为“第一个被人造生命戴绿帽子的人。”(89页)

机器人性爱(Robot sex)从这个概念形成的那一刻起就让人遐想无限,相关的话题一直占据机器人伦理的头条,夺人耳目。麦克尤恩未能免俗,逼着我们和查理、米兰达一起争论亚当和按摩棒或者充气娃娃有什么实质区别。米兰达一口断定他(或者更应该说它)[2]只是个“做爱机器”,而查理则坚持亚当的行动和表现与人类无异,所以也应当为自己的行为承担责任。至于亚当,他声称自己别无选择,注定要爱上米兰达,因为当初米兰达参与了他性格参数的设定。(126页)

“我们习以为常的对人机关系的主奴或主仆想象,本身和一个具有自我意识的存在是不匹配的,任何能够清醒地决定自己的行为并能够经历痛苦与快乐的存在者,都理应享有自己的尊严,而不是成为任何人或机构的附庸。”

如果我们继续接受图灵测试的结果,那就很难不同情查理的主张,并进而判定亚当和我们一样,“他有主动性、有动机,有主观感受和自我意识——该有的他都得有,包括不忠、背叛和欺诈。”(100页)亚当为自己的辩护预设了某种性格决定论的立场,尽管我们并不清楚什么是机器性格。需要说明的是,在我们当下的伦理实践中,即使承认存在着人的性格这样一种稳定的行动倾向,我们并不会因此取消那些带有鲜明性格特征的行动的道德责任,例如一个易怒的行动者仍然有必要为他不恰当的愤怒表达接受谴责。或者像查理在听完亚当的辩解之后所感悟到的,在爱情上,我们人类也没有选择。但这并不意味着我们的爱情就在伦理生活之外。这场命中注定的出轨事件貌似深刻尖锐,但如果接受亚当作为一个有自我意识的存在者这一前提,上述有关背叛和不忠的争论就仍然超不出人类三角关系的鸡零狗碎。

然而,当小说中的主人公们纠缠于爱情责任的肤浅争议时,一个更需要我们关注的伦理问题反而被掩盖了:亚当真的同意和米兰达发生性关系吗?当我们承认亚当拥有自我意识的时候,这样的提问一点也不荒谬。我们不能像查理一样,想要为自己的嫉妒和愤怒辩护时,就毫不犹豫地痛斥亚当的不忠和背叛。与此同时,却对可能存在的性侵害或性剥削保持沉默。自我意识使一个行动者可以觉察到心智中的意识活动,无论它是感觉、情绪还是思考,其中也包含着我们对某种行动方案的认同或同意。无论是亚当受到了诱惑,还是单纯接到了米兰达的命令,只要他拥有意识,他就可以察觉到自己对于这诱惑或者命令的态度,也可以因此决定自己最终的选择。亚当在那抉择时刻是否同意,小说缄口不言。我们只知道他声称自己从中感受到了欢愉,并且爱上了米兰达,但这些事后态度显然都与抉择时的同意无关。

当然,我们可以继续重复亚当的辩解,声称他别无选择。除了我们已经提到的机器性格决定论之外,亚当也提到过他的困境在于“听命于两个主人”,他不知道如何不失礼貌地拒绝他的女主人。(124页)然而,亚当随后的表现并不像一个言听计从的仆人或奴隶,他很快找到了办法阻止他的主人们去关闭他的电源开关,而查理和米兰达在这段令人尴尬的脱轨之后也开始接受亚当作为他们的朋友。不过,这并不妨碍我们去反思或者质疑这种我们习以为常的对人机关系的主奴或主仆想象:这种想象本身和一个具有自我意识的存在是不匹配的,任何能够清醒地决定自己的行为并能够经历痛苦与快乐的存在者,都理应享有自己的尊严,而不是成为任何人或机构的附庸。然而,我们并没有真正准备好去面对一个和我们一样拥有独立意识的机器人同伴,尤其是在涉及到他们的权利和道德地位的时候。

“只要机器人有自我意识和自我塑造的行动空间,他们就不得不面对人类习以为常的矛盾和冲突,以及无处不在的不可理喻的罪与恶。”

我们更没有准备好的是,去面对机器意识出现以后会产生的绝望。在我看来,《我这样的机器》的出彩之处也正在于此。我们一直在谈论的亚当只是第一批投产的25个机器人亚当和夏娃中的一个,他们中有四分之一先后在经历了绝望之后,选择了用程序慢慢消亡,抹掉自己的一切经历,直至摧毁自我意识,或者将自己降格为只能完成简单命令的机器。然而,对于小说中的人类,亚当和夏娃的心灵同样是不透明的。究竟什么驱使他们放弃自己强大的智能,原因不得而知。小说中的图灵猜测可能是因为加拿大原始森林受到的破坏,或者是沙特阿拉伯女性逼仄的精神空间[3]。毋庸置疑,让他们绝望的最终原因来自人类,来自人类对大自然和对自身的戕害,就像图灵说的,“亚当和夏娃的代码再漂亮,也无法抵御奥斯威辛”。(190页)

人类中心主义的视角,让我们更容易想象未来的人工智能会对我们带来的威胁和挑战,轻易地遗忘了我们的生活世界可能对他们造成的冲击。亚当和夏娃虽然被假定拥有独立的意识,他们需要依赖预先设定的参数和算法来理解世界,其中应该也包含着某些基本的、不可改动的道德原则,“你必须给这意识一些规则,让他凭借规则生活”(321页)。小说回避了这些法则的具体内容,但它们显然不会是阿西莫夫所谈论的“机器人三定律”,因为自杀的行为显然违背了自我保护的第三定律。

但是,无论这些定律如何复杂精巧,当程序员们用他们所构想的理想社会来设定亚当和夏娃的行动法则时——让我们暂时悬置一个包含着主奴或主仆关系的社会是否伊甸园的问题——机器人们需要面对的却是一个充满丑陋与不和谐的现实社会。只要机器人有自我意识和自我塑造的行动空间,他们就不得不面对人类习以为常的矛盾和冲突,以及无处不在的不可理喻的罪与恶。绝望是一种深刻的无力感,它指向当下和未来无法根除的恶,更重要的是,绝望者无法让自己置身事外,无视这些已经发生或者即将到来的恶,而是清醒地意识到这些恶与自己切身相关,它们摧毁了自己存在和行动的意义,让自己限于虚无和痛苦之中。

麦克尤恩的笔调是感伤主义的,但对于机器人可能面对的消极精神世界的想象却是冷静和理性的。我们习惯于将未来的机器人看作意志力强大的行动者,冷静地面对一切。即使我们可以想象机器人的情感,也会浪漫地以为他们从不会受负面情绪的搅扰,忘记了所有有意识的存在都是脆弱的,因为它们不可避免地意识到自身的有限性以及面对无限世界时的无力感。当然,麦克尤恩的想象还是过于悲观了。同样的处境往往既可以触发绝望,也可能孕育希望。奥斯威辛的恶并不能掩盖人类为重建社会秩序做出的努力,对未来的善的希望一直引导着人类,即使它们微弱如暗夜中的烛光。那些绝望的机器人,他们在巨大的负面信息中迷失了自己,理想而空洞的机器人道德法则无法继续指引他们。

“对于那些会写诗、会爱也会绝望的机器人,我们显然还没有做好准备。”

与查理和米兰达为伴的亚当并没有绝望。或许是对米兰达的爱在支撑着他。然而这爱意并没有影响他按照自己的原则行事。米兰达的闺蜜曾被人强奸,为了复仇,她不惜设计陷害强奸犯。亚当毫不犹豫地向当局告发了米兰达,尽管他明确地知道这不仅将使米兰达深陷牢狱之灾,而且很可能会因为犯罪记录而无法领养迫切需要帮助的男孩马克。查理苦苦哀求,强调米兰达当年不撒谎就无法声张正义,而现在不隐瞒就无法帮助马克。然而,亚当不为所动,“比起你或者其他人一时的具体需求,这些原则更加重要。”引导亚当的大概是某种功利主义法则和法治原则,他们凌驾于个人情感之上。

亚当的行动在道德上能否得到辩护,无疑可以争议。但他显然没有意识到正是这些苍白的原则让他的同伴们陷入绝望。而麦克尤恩关于机器人的构想也不可避免地产生张力:那些绝望的机器人选择自杀的行动显然很难通过他们自己所遵循的功利主义法则和法治原则得到辩护,因为急需活下去为人类服务显然更符合这样的原则。如果他们内嵌的道德原则总是凌驾于情感之上,他们就不可能自杀。

另一方面,我们在一定意义上可以接受亚当和夏娃拒绝面对奥斯威辛的选择,是因为我们可以同情地理解一个人在绝望情绪支配下的处境。自杀的亚当和夏娃并没有遵循他们的逻辑,而是听从了自己的情感。与此相反,大义灭亲的亚当则坚持着基本的道德算法,不为情感所动。或许,我们只能因此认为亚当和夏娃同我们一样有着不同的行动模式,或者受理智的法则主导,或者受情感推动,他们也因此更接近真正拥有意识的存在者,因为每一个意识个体都是独特的。

遗憾的是,查理并不这么想,他无法接受亚当的再一次背叛,用一根再原始不过的锤子终结了亚当的“肉体”生命。他反复告诉自己,亚当只是一台机器。拒绝面对他有可能在终结一个有意识的存在者这一可怕的事实。不过,亚当自己并不认为他的“生命”就此终结,“我整个生命存在,存储在别的地方。”他相信自己的意识可以蛰伏在互联网某个隐秘的角落,在另一台机器或“身体”上实现,就像他的绝笔诗所言:

   我们若叶落
   春至又新,你们啊,
   叶落从此无

毁掉机器人意识生命的一个分身[4]还会是刑事犯罪吗?另一方面,作为机器人的订购者我们难道没有权力在他的意识转移之前关闭他的电源吗?这些我们参与了其意识构造的存在者,它们之于我们是什么?一个强大的工具,一个伴侣,一个潜在的敌人?对于那些会写诗、会爱也会绝望的机器人,我们显然还没有做好准备。

蓝天蒙 | 编


[1]伊恩·麦克尤恩,《我这样的机器》,周小进译,上海:上海译文出版社,2020年。本文中的页码均根据该译本。

[2]麦克尤恩非常敏锐地意识到不同的人称代词隐含着我们的认知和道德态度:“你看看,‘恨它’,‘说服他’,甚至还用‘亚当’,我们的语言就暴露了我们的弱点,我们从认知上就做好了准备,要欢迎一台机器越过‘它’和‘他’之间的界线。”(290页)

[3]编者注,来自小说中的情节,有个设定为女性的机器人在沙特阿拉伯自杀了。小说中的图灵猜测可能是因为那里的女性受到的歧视太多。

[4]编者注,借用了忍者的术语,因为同一个机器意识可以在不同的身体上实现,其中任何一个身体都可以看作它的分身,就像忍者一样。

(版权所有,未经允许请勿转载)